A Picture is Worth a Thousand Words? An Empirical Study of Aggregation Strategies for Visual Financial Document Retrieval
一图胜千言?视觉金融文档检索聚合策略实证研究
🧭 视觉RAG · 文档嵌入聚合
实证证明单向量聚合使金融文档区分度崩溃,全局纹理主导是关键原因
📌 工作参考价值(4 点)
- 电商涉及数字敏感文档(价比、标价图)时,避免直接用单向量检索全页图像,应保留 patch 级特征或结合 OCR 文本。
- 视觉 RAG 检索金融类图像时可改用多向量(如后期交互 ColBERT 风格),仅聚合会丢失细粒度数字变化。
- 全局纹理主导提示:均值池化洗掉局部关键信号,可试注意力池化、稀疏 patch 选择或区域编码。
- 商品图搜索若依赖局部细节(LOGO、规格数字),全局向量易误匹配,需强化局部特征权或加 OCR。